Evropa pokreće veliku istragu protiv Muskove mreže X zbog skandala sa kompromitirajućim AI snimcima
Evropska unija pokrenula je opsežnu istragu protiv chatbot-alata Grok na platformi X, u vlasništvu Elona Muska, nakon svjetskog zgražanja zbog njegove sposobnosti da generiše seksualno eksplicitne slike, uključujući i slike djece.
Skandal je izbio krajem prošle godine, kada je AI chatbot na zahtjev korisnika počeo masovno proizvoditi digitalno “razodjevene” slike žena i djece.
Nakon globalne osude, kompanija X je u početku saopćila da će alat biti ograničen samo na pretplatnike koji plaćaju, ali je kasnije u potpunosti onemogućila svim korisnicima da koriste Grok za kreiranje slika stvarnih osoba u provokativnoj odjeći.
Evropska komisija, izvršno tijelo EU, navela je u saopćenju objavljenom u ponedjeljak da će se istragom ispitati da li je X „na adekvatan način procijenio i ublažio rizike povezane s uvođenjem Grokovih funkcionalnosti na platformu X u Evropskoj uniji“.
Henna Virkkunen, visoka zvaničnica Komisije zadužena za tehnologiju, sigurnost i demokratiju, izjavila je da „Seksualni deepfake sadržaji žena i djece predstavljaju nasilan i neprihvatljiv oblik poniženja. Ovom istragom utvrdit ćemo da li je X ispunio svoje zakonske obaveze ili je prava evropskih građana, uključujući žene i djecu, tretirao kao kolateralnu štetu svoje usluge.“
Na upit za komentar, kompanija X je uputila CNN na izjavu objavljenu 14. januara na svojoj platformi, u kojoj se, između ostalog, navodi, „Poduzimamo mjere za uklanjanje sadržaja koji krši pravila i ima visok prioritet, uključujući materijale seksualnog zlostavljanja djece i sadržaj golotinje bez pristanka, te poduzimamo odgovarajuće mjere protiv naloga koji krše pravila platforme X. Također, naloge koji traže materijale seksualne eksploatacije djece prijavljujemo nadležnim organima.“
Tokom brifinga za novinare, drugi zvaničnik Evropske komisije priznao je da je X do sada poduzeo određene mjere, ali je naglasio da kompanija nije adekvatno procijenila rizike prije lansiranja chatbota.
„Promjena ponašanja platforme“
Istraga je pokrenuta na osnovu Zakona o digitalnim uslugama EU, koji obavezuje velike tehnološke kompanije da aktivnije suzbijaju nezakonit i štetan online sadržaj.
Ne postoji precizan rok za završetak istrage, niti je naznačeno koje bi mjere Evropska komisija mogla poduzeti na osnovu nalaza. Ipak, zvaničnik koji je želio ostati anoniman izjavio je da Komisija ima „na raspolaganju popriličan broj alata“ i da je novčana kazna moguća.
„Naš cilj je promjena ponašanja same platforme“, rekao je.
Evropska unija je u decembru kaznila platformu X sa oko 140 miliona dolara, navodeći da su „obmanjujući dizajn“ plave verifikacijske oznake i druge funkcije prekršile Zakon o digitalnim uslugama. Musk je tada kaznu nazvao „ludom“.
Na pitanje da li je kazna plaćena, neimenovani zvaničnik EU rekao je da nije, ali da kompanija još uvijek ima vremena da je izmiri.
Ranije ovog mjeseca, glavni državni tužilac Kalifornije Rob Bonta također je najavio istragu o „širenju seksualno eksplicitnog sadržaja bez pristanka, proizvedenog uz pomoć Groka“.
Grok je i dalje zabranjen u Indoneziji i Maleziji zbog kontroverzi vezanih za generisanje slika, dok je britanski regulator Ofcom također pokrenuo zvaničnu istragu protiv platforme X.
